메뉴

#에이전트 아키텍처

HN
Hacker News 28일 전
IMP 8

에이전트 제어부는 샌드박스 밖에 두어야 한다

AI 에이전트를 구동하는 핵심 루프인 '하니스(harness)'를 샌드박스 내부가 아닌 외부(백엔드)에 배치해야 보안성과 안정성을 확보할 수 있다는 주장입니다. 특히 다수의 사용자가 동시에 에이전트를 사용하는 환경에서는 자격 증명(Credential) 유출 방지, 리소스 효율화, 장애 복구 등의 이점이 있어 외부 배치가 필수적입니다. 이 글은 실제 프로덕션 환경에서 하니스를 외부에 두기 위해 해결해야 했던 기술적 과제와 그 이유를 설명합니다.

에이전트 아키텍처 샌드박스 보안 코딩 에이전트
HN
Hacker News 58일 전
IMP 8

AI 어시스턴트, RAG 대신 가상 파일시스템 도입

문서 검색에 쓰이는 전통적인 RAG 방식의 한계(정확한 문법 누락, 다중 페이지 탐색 불가 등)를 극복하고자 가상 파일시스템인 ChromaFs를 도입한 사례입니다. 이를 통해 샌드박스 컨테이너 생성에 걸리던 46초의 지연 시간을 100밀리초로 단축하고 연간 7만 달러 이상의 인프라 비용을 절감했습니다. 기존 DB 인프라를 재사용해 추가 비용 없이 에이전트가 셸 명령어(ls, grep 등)로 문서를 탐색할 수 있게 한 것이 핵심입니다.

에이전트 아키텍처 가상 파일시스템 RAG 대체